Counterfactual Auditing of Bias in Open-Source Large Language Models for Clinical Triage
开源大语言模型临床分诊偏差的反事实审计
🧭 LLM 反事实公平性审计
Virginia Tech · University of Washington and Seattle Children's Hospital · Children's National Hospital
反事实审计10个开源LLM的临床分诊偏差，发现敏感性与模型规模/医疗预训练非单调，QLoRA微调版本最低
📌 工作参考价值（4 点）
- 在生成式推荐/Agent 决策中，可复用成对反事实审计：仅改变用户画像中的性别、会员等级、设备、地区或商品价格带等单一敏感属性，固定其他上下文，统计输出列表/排序变化，低成本发现模型对敏感特征的依赖。
- 不要只看 aggregate shift 率：要按敏感属性分组，分别观察方向性（类似 overtriage/undertriage），例如是否系统性打压某类用户或过度曝光某类商品，否则聚合指标会掩盖局部严重偏差。
- QLoRA 微调可能降低总体敏感性，但不一定消除方向性偏差甚至引入新偏差；微调后必须重新跑反事实评估和分层分析，不能只测总体准确率。
- 选 LLM 做排序/决策支持时，更大模型或领域预训练不自动更公平；建议对候选模型统一跑反事实测试集，结合真实与合成样本，作为选型和上线前评估的一部分。